AI Papers Daily

#Outlier Separation

1 篇

XFP: Quality-Targeted Adaptive Codebook Quantization with Sparse Outlier Separation for LLM Inference

XFP：面向LLM推理的质量驱动自适应码簿量化与稀疏异常值分离

🧭 LLM ★ 深度解读

Gemini Stiftung Leipzig

让操作者设定余弦相似度质量下限，自动决定每层最小位宽，实现消费级GPU上的大模型高效推理

LLM | 2026-05-14 | cs.LG | score 9/10

LLMQuantizationCodebookMoEOutlier SeparationInference